KV Cache不用「精挑细选」？随机删除媲美最强基线，推理吞吐最高再提43%
KV Cache不用「精挑细选」？随机删除媲美最强基线，推理吞吐最高再提43%大模型越来越会 “想”，也越来越能把 GPU 显存 “想满”。 在数学、科学问答和代码生成等任务中，reasoning model 往往会生成数千乃至数万 token 的长推理链。随着生成持续进行，每
来自主题: AI技术研报
8414 点击 2026-09-20 11:05
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT